（来源：上观新闻）
要达到128K❎+，需要🙇♀️多个方向上的🥕👨👨👧持续创新😖：新的注意🤖🇲🇪力模式🇨🇳（稀疏、线性、混⬆🥽合）、🌎系统工程🇬🇱（Flas🧸🇮🇷hAt❔tentio🇱🇮n）、位置编码🇷🇺🦁的进步（🎭😻RoPE 🦸♀️scal🏯👐ing）📓。科技的进步，🍞🔳就是常常始于🚵那些“看似无🌋意义”的探索🐟。
产能扩张🙋缓慢 🇭🇰🇹🇰虽然这些公司🚹🇸🇻很快就能🔑🥼决定增加产量，🏚👨🏭但建设◼🔱此类设施可能需要🦛🇬🇮数年时间🙆🤔。内部的裂痕已在人🚭✡才流失中显现🍙🚶♀️。而且 🥍粉嫩一区二区三区AI 犯的错往🐷往是模式化🏃的（重🏘🇦🇿复造轮子、改坏🕍现有逻辑）🇮🇲，用模式化的 👩⚖️Harness 🕹来防御模式化的错🇵🇫🚕误，比用人工🇲🇳⛰ Gate🥖📳 来审查更🎭🔯合理、更🎁经济👋。
他们的♈🗂核心研💰🗼究员就会📲👳成为所🦢有大厂和AI🆘🚞创业公司争夺的🏊对象🍌🗺。这些数字💕🖖换算到具体现⬇🦡实中，就是🛃🐾一个运营数十万张👥GPU的🏢超大规模数据中心🌡🛌，每年可以节🤛🛅省数亿美元的电🏉✈力成本，同时获得🎷更高的训练🦎吞吐量♿。截至今日🛩，他粗略统计：超🔤🧵过400个电话联👨🎨系了他🇵🇷😡。
